Sau thành công của bộ phim Sherlock Holmes 2009, một phần tiếp theo đã được nhanh chóng được lên lịch sản xuất bởi hãng Warner Bros với đạo diễn Guy Ritchie, giảm bớt phim nhân vật hư cấu và Robert Downey, Jr cũng rời khỏi phim "Cao bồi và Người ngoài hành tinh". Đó là chưa nhắc đến Rachel McAdams sẽ xuất hiện trong bộ phim. McAdams nói: "Nếu tham gia, nó sẽ không là một điều gì lớn lao. Và không phải là một vai chính". Warner Bros sau đó xác nhận với Entertainment Weekly rằng McAdams sẽ có một vai diễn trong phần tiếp theo.

Một năm sau, khi các sự kiện của bộ phim đầu tiên diễn ra, nội dung chạy chữ của Sherlock Holmes 2, được cho là bị ảnh hưởng cốt truyện "Vấn đề cuối cùng" của Conan Doyle. Trong khi "Sherlock Holmes: A Game of Shadows" được dự định là một bộ phim hoàn chỉnh mà không nối tiếp nội dung của bộ phim trước đó.

Vào tháng 10 năm 2010, Downey, Jr và Jude Law đã được nhìn thấy tập luyện một cảnh chiến đấu như bắn súng đã diễn ra tại Công viên Richmond, ở phía tây nam Luân Đôn. Cũng vào tháng 10 năm 2010, con tàu hơi nước PS Waverley đã được điều đến eo biển Anh để quay phim, và một màn hình màu xanh lá cây lớn đã được dựng lên ở tuyến Đường sắt Trung tâm Didcot với nhiều cảnh quay hành động vào giữa tháng mười. Cuối tháng 10, một khung cảnh thật quay tại Victoria Bridge, là một phần của Thung lũng đường sắt Severn. Vào tháng Giêng 2011, cảnh cũng đã được quay tại Hampton Court Palace và các khu vực trong Trường Đại học Oxford, Anh. Quay phim cũng đã diễn ra trong tháng 9 năm 2011 tại Đại học Hải quân Hoàng gia, Greenwich.

Vào đầu tháng 2 năm 2011, nhóm quay phim chính di chuyển trong hai ngày đến Strasbourg, Pháp. Cảnh bắn súng diễn ra xung quanh và bên trong Nhà thờ Strasbourg. Cảnh này được cho là cảnh mở đầu của bộ phim, vì nó bao gồm nổ bom và vụ ám sát trong một thành phố nói tiếng Đức.